回答:個(gè)人簡單談一下百萬QPS下的12306如何架構(gòu),算是拋磚引玉,下圖是我畫的一張網(wǎng)絡(luò)拓?fù)鋱D:我們知道當(dāng)國慶節(jié)、春節(jié)來臨的時(shí)候,12306會(huì)在每天的早上8點(diǎn)、12點(diǎn)、16點(diǎn)等各個(gè)時(shí)間點(diǎn)放票,這時(shí)候在極短的時(shí)間內(nèi)涌入大量的流量請求,可是說是中國互聯(lián)網(wǎng)甚至世界互聯(lián)網(wǎng)上最大的高并發(fā)請求量了。網(wǎng)絡(luò)要承受的住那首先要保證的就是網(wǎng)絡(luò)不能掛,大家都先不用考慮服務(wù)端具體業(yè)務(wù)怎么實(shí)現(xiàn)的,應(yīng)該首先要考慮的是多大的網(wǎng)絡(luò)帶寬...
回答:從系統(tǒng)架構(gòu)本身來說,一般系統(tǒng)優(yōu)化主要從三個(gè)方面入手,數(shù)據(jù)持久層、業(yè)務(wù)邏輯層和前端展示層。數(shù)據(jù)持久層限制系統(tǒng)性能主要有兩個(gè)方面,一是數(shù)據(jù)庫自身的性能,二是對數(shù)據(jù)庫操作的方式,數(shù)據(jù)庫自身相對簡單,一般通過優(yōu)化配置、采用高可用方案、搭建集群或者使用性能更好的數(shù)據(jù)庫來提升性能;數(shù)據(jù)庫操作主要是數(shù)據(jù)庫讀寫操作,可以通過SQL優(yōu)化的方式來提升讀寫速度,或者通過緩存的方式減低并發(fā)、提升性能。業(yè)務(wù)邏輯層代碼層面常...
...- 80G 之間,并且入庫時(shí)間要求比較短,因此對數(shù)據(jù)庫寫入性能要求很高,由于數(shù)據(jù)增長比較快,對數(shù)據(jù)庫的擴(kuò)展性也有很高的要求。數(shù)據(jù)抓取完成后,對數(shù)據(jù)進(jìn)行清洗和計(jì)算,因?yàn)閿?shù)據(jù)量比較大,單表 5 億 + 條數(shù)據(jù),所以對數(shù)據(jù)...
...- 80G 之間,并且入庫時(shí)間要求比較短,因此對數(shù)據(jù)庫寫入性能要求很高,由于數(shù)據(jù)增長比較快,對數(shù)據(jù)庫的擴(kuò)展性也有很高的要求。數(shù)據(jù)抓取完成后,對數(shù)據(jù)進(jìn)行清洗和計(jì)算,因?yàn)閿?shù)據(jù)量比較大,單表 5 億 + 條數(shù)據(jù),所以對數(shù)據(jù)...
...別的時(shí)候就難以支撐,需要進(jìn)行分表分庫。為此,一款高性能的分布式數(shù)據(jù)庫,日漸成為剛需。 思考 在互聯(lián)網(wǎng)公司業(yè)務(wù)量增大之后,并行擴(kuò)展是最常用、最簡單、最實(shí)時(shí)的手段。例如負(fù)載均衡設(shè)備拆流量,讓海量流量變成每個(gè)...
...需求,但是部分復(fù)雜條件的查詢將會(huì)影響整個(gè)分片集群的性能,少量的全片掃描 SQL 經(jīng)常會(huì)占用 80% 以上的 IO 資源,導(dǎo)致其他的查詢性能下降。這時(shí),剛好我們的首席架構(gòu)師提議,使用 TiDB 試試,經(jīng)過中間件組和 DBA 組的配合測...
...別達(dá)到上億級(jí)別,數(shù)據(jù)快速增長導(dǎo)致單機(jī)出現(xiàn)瓶頸,比如性能明顯下降、可用存儲(chǔ)空間不斷降低、大表 DDL 無法執(zhí)行等,不得不面臨數(shù)據(jù)庫擴(kuò)展的問題。比如,我們有一個(gè)業(yè)務(wù)場景(智能終端),需要定時(shí)從幾千萬級(jí)的智能終端...
ChatGPT和Sora等AI大模型應(yīng)用,將AI大模型和算力需求的熱度不斷帶上新的臺(tái)階。哪里可以獲得...
大模型的訓(xùn)練用4090是不合適的,但推理(inference/serving)用4090不能說合適,...
圖示為GPU性能排行榜,我們可以看到所有GPU的原始相關(guān)性能圖表。同時(shí)根據(jù)訓(xùn)練、推理能力由高到低做了...